كان يؤلف الخطب والرسائل ، ويقول الشعر " . . . وكان لسان إفريقية في وقته في الزهد والرقائق والكلام على الأحوال والمقامات ، انتفع في ذلك بصحبة أبي الحسن علي بن سهل الدينوري ، وأبي علي الرّوذباري وغيرهما " . وها إليك نموذجا من خطبه 3 : " الحمد للّه الواحد الرّحمن ، الفرد الديّان ، الصمد الموجود بكلّ مكان ، الحيّ المعبود الذي كشف الأغطية عن قلوب أهل خاصته فأبصرت ، وفتح بأنوار الإيمان دياجيها فأشرقت ، ونزع عنها قناع الجهل فأسرعت ، ودعمها برفيع العلم فتأيدت ، وجالت بنوافذ لمحاتها في الملكوت فأيقنت ، فغدت لدى تكوين الرياضات مشربها ، وجلّ بفضل العزيز في المعارف خطبها ، حتى أحلّهم اللّه تعالى برياض ونهر مبرّته ، وكساهم حلل أهل معرفته وتوجهم بتيجان أهل مودّته ، ومكّن رتبهم بأوطان الصديقين ، وسقاهم صفوا من شراب المقرّبين ، وأوزعهم الشيم الزكيّة والأخلاق الرضيّة عند تلوين الأقدار وتصرّف الاختيار ، فجعلهم في الدار أوتادا ، وله عبيدا أوحادا ، لا يفزعهم دونه صوت ملك جبّار ، ولا صولة ذي سلطان قهّار ، إذ هو - تعالى - بما آمنوا من دار الأمان ، وأشهدهم مصداق وعده هناك بالعيان ، منّا منه عليهم ، وتطولا منه لديهم ، وإحسانا منه إليهم . سبحانه لا إله إلّا هو الرحمن الودود حصنهم الذي لا يضام ، وكهفهم الذي لا يرام ، أُولئِكَ حِزْبُ اللَّهِ ، أَلا إِنَّ حِزْبَ اللَّهِ هُمُ الْمُفْلِحُونَ . وكانت لربيع حلقة كبيرة بجامع القيروان أيام خروج أبي يزيد مخلد بن كيداد الخارجي يجتمع إليه فيها أهل هذه الطبقة من الزهاد والمتعبدين وكان حتّم على نفسه ألّا يشبع من طعام أو نوم حتى يقطع اللّه دولة بني عبيد الشيعة . وعوتب - رحمه اللّه - في خروجه مع أبي يزيد إلى حرب بني عبيد فقال : وكيف لا أخرج وقد سمعت الكفر بأذني ، فمن ذلك أني حضرت يوما أملاكا ، وكان فيه جمع كثير من أهل السنّة والمشارقة - يعني الشيعة - وكان بالقرب منّي أبو قضاعة الداعي ، فأتى رجل من أعظم المشارقة فقام إليه رجل منهم وقال له : إلى هاهنا يا سيدي ، ارتفع إلى جانب رسول اللّه ، يعني أبا قضاعة ، ويشير إليه بيده فما